拿一般的大型語言模型(LLM),加上一段「請判斷這段文字是否安全,只回答 Safe 或 Unsafe」的提示,就能開始做安全判斷。既然如此,為什麼還要另外找一個...
當客服能直接建立申請、修改訂單或執行退款,Guardrails 就需要回答:這個 Agent 在這次任務中,被允許把流程推進到哪裡? 一段回覆可以沒有髒話、沒有...
IT邦幫忙